Randomized YaRN Improves Length Generalization for Long-Context Reasoning
随机化 YaRN：通过随机位置采样与长度课程提升长上下文推理
🧭 位置编码与长度课程训练 ★ 深度解读
New York University
结合 YaRN 位置编码、随机位置采样与长度课程，仅用短上下文数据微调即大幅提升 OOD 长上下文推理能力
📌 工作参考价值（4 点）
- 不依赖长文本数据的长度扩展：在电商搜索推荐或 Agent 场景中，若需要模型处理超长对话历史或商品描述，但缺乏长文本微调数据，可借鉴随机化 YaRN 在标准短上下文数据上训练，就能获得长上下文泛化能力。
- 长度课程策略：消融实验表明，逐步增大位置采样范围（例如 8K→16K→32K）对泛化至关重要，业务中微调长上下文模型时可显式设计长度课程，避免直接跳到最大长度导致性能退化。
- 位置编码的随机化技巧：训练时对每个 batch 内的 token 随机分配来自更长区间的 YaRN 编码（排序后保持顺序），让模型提前接触 OOD 位置表征，此 trick 可与现有 RoPE 类模型结合，成本低且无需改变模型结构。
- 推理时 YaRN 因子可大于训练因子：论文发现 s' > s 时可进一步外推至未见的长度，实际部署时可尝试用更大的推理尺度因子来覆盖极端长输入，无需重新训练。